Đầu năm 1284, vua Nguyên là Hốt Tất Liệt sai Trấn Nam vương Thoát Hoan chia quân làm ba đạo xâm lược Đại Việt. Chiêu Văn vương lúc đó đang trấn thủ lộ Tuyên Quang. Vì Nhật Duật hay giao du với người Hán, nên Chiêu Quốc vương Trần Ích Tắc tâu với vua rằng: "Chiêu Văn ở Tuyên Quang, chắc ở trên đó gọi giặc sang rồi!". Khi cánh quân Nguyên từ Vân Nam sang chiếm được trại Thu Vật (thuộc huyện Yên Bình, tỉnh Yên Bái ngày nay), Nhật Duật đã thực hiện cuộc triệt binh chiến lược theo con đường từ Yên Bình về Bạch Hạc (Phú Thọ). Thoạt tiên ông đi thuyền xuôi theo sông Chảy, nhưng khi thấy truy binh của Nguyên-Mông chỉ đuổi theo chậm rãi, ông nói với các thuộc cấp: "Truy kích thì phải nhanh, nay chúng lại đi thong thả, sợ có quân phía trước đón chặn". Sau đó, Chiêu Văn vương sai người đi do thám, quả nhiên thấy người Nguyên đã cho quân chặn ngang ở Hạ Lưu. Nhật Duật mới đưa quân lên bộ và rút lui an toàn khỏi Yên Bái.[3][4] Sau đó, ông được điều vào Nghệ An ngăn cánh quân Nguyên của Toa Đô. Cuối tháng 2, đầu tháng 3 năm 1285, Toa Đô từ Chiêm Thành đánh ra vùng Bố Chính (Quảng Bình ngày nay) rồi tiến ra Nghệ An. Trần Nhật Duật và Trịnh Đình Toản tung quân chống đánh, nhưng thua trận. Toa Đô lại đánh ra Thanh Hóa. Tướng giữ Thanh Hóa là Chương Hiến hầu Trần Kiện mang 1 vạn quân ra đón hàng quân Nguyên.[12][9]

Sau một thời gian tránh thế mạnh của địch, dùng kế vườn không nhà trống ở kinh thành Thăng Long và các vùng lân cận khiến quân Nguyên bị thiếu lương thảo, bộ chỉ huy Đại Việt đứng đầu là thượng hoàng Trần Thánh Tông, vua Trần Nhân Tông và Quốc công Tiết chế Hưng Đạo vương Trần Quốc Tuấn bắt đầu phản công.[9] Cuối tháng 4 năm 1285, Chiêu Văn vương bàn với Hưng Đạo vương đón đánh quân Nguyên ở cửa Hàm Tử. Để phá vỡ nhuệ khí quân Nguyên, Trần Nhật Duật tuyển nhiều người Trung Quốc của nhà Tống cũ vào đạo quân của ông. Ông còn cho người Tống là Triệu Trung làm gia tướng. Số quân này mặc sắc phục Tống, cầm cung tên đi đầu trận tuyến, chiến đấu rất hăng. Thượng hoàng Thánh Tông sợ quân sĩ tưởng quân Tống của Nhật Duật là lính người Hoa của quân Nguyên, nên sai người đi dặn rằng: "Đó là quân Thát của Chiêu Văn đấy, phải nhận kỹ chúng". Quân Nguyên cho là Đại Việt được người Tống giúp, nên rất hoảng loạn, phải tháo chạy tan tác. Trong sách Đại Việt Sử ký Toàn thư, sử gia Ngô Sĩ Liên nhận định: "Công đánh giặc Nguyên, Nhật Duật lập được nhiều hơn cả".[13][4]

Trong Bài ký chuông quán Thông Thánh ở Bạch Hạc (Bạch Hạc Thông Thánh quán chung ký), đạo sĩ người Tống là Hứa Tông Đạo, người đã di cư sang Đại Việt năm 1276 và là môn khách của Trần Nhật Duật, có mô tả chiến công của Trần Nhật Duật trong cuộc chiến năm 1285:[14]

"Cuối đông năm Giáp Thân, giặc Bắc đến xâm lược. Lúc ấy, Khai Quốc vương trấn thủ các lộ Tuyên Quang; ngày thượng nguyên năm Ất Dậu, cùng Hứa Tông Đạo cắt tóc thề trước thần linh sông Bạch Hạc sẽ đem tận trung báo ơn chúa thượng. Rồi đốc suất tả hữu, một mình xông lên trước. Vừa qua vùng Man Lão, quân Thát đã ở sau, trong vòng tám khắc, hai bên không đụng. Đến thẳng trước ngự, hầu bên hữu giá, tập hợp quân sĩ, chém đầu Toa Đô. Trung tuần tháng trọng hạ, quân Thát thua chạy, đều nhờ vào phúc ấm của thần vương vậy."

Các bộ chính sử của Việt Nam như Đại Việt Sử ký Toàn thư, Việt sử tiêu án, Khâm định Việt sử Thông giám Cương mục,... không chép gì về vai trò của Trần Nhật Duật trong cuộc kháng chiến chống Nguyên năm 1287-1288. Các bộ sử Trung Quốc như Nguyên sử và An Nam chí lược cũng chỉ cung cấp thông tin sơ lược rằng ông là người chỉ huy 4 vạn quân Đại Việt ở cửa Mộc Ngột (Việt Trì). Tháng 11 âm lịch năm 1287, cánh quân Nguyên của Hữu thừa Aruq (Ái Lỗ), gồm 6 nghìn người, từ Trung Khánh (Côn Minh, Vân Nam) qua La La, Bạch Y tiến vào Đại Việt. Trần Nhật Duật xua quân đánh lại Aruq. Hai bên giao chiến tất cả 18 trận trong suốt 3 tháng. Quân Nguyên thắng lợi, lấy được 87 thuyền chiến và giết hại hai tướng Đại Việt là Lê Thạch, Hà Anh.[15][16] Tuy nhiên, sử gia thế kỷ 21 Lê Mạnh Thát kiến giải rằng:[16]

"Đối với cuộc chiến tranh đang nổ ra, chủ trương chiến lược của quân dân nhà Trần lần này khác với lần trước. Ngay từ những trận đánh đầu tiên này, khi vua Trtần Nhân Tông hỏi Trần Hưng Đạo, thì được trả lời “năm nay giặc dễ”, như ĐVSKTT 5 tờ 52a6-8 đã ghi. Quân đội nhà Trần ở các mặt trận khác nhau thực hiện các trận đánh rút lui vừa để tiêu hao sinh lực địch vừa để bảo toàn lực lượng ta, vừa chủ động nhữ địch đến những nơi ta muốn, để cuối cùng phản công và tiêu diệt chúng. Cho nên, trận Phú Lương, tuy ta có bị tiêu hao với việc hai tướng Lê Thạch và Hà Anh bị bắt cùng một số chiến thuyền bị cướp, nhưng danh tướng Trần Nhật Duật đã hoàn thành xuất sắc và trung thành chủ trương và nhiệm vụ được giao, rút về và bảo toàn lực lượng."